Ну я сделал что смог, но не уверен.

Делал так. Взял производную ( по игрек), получил

f'y=cos(x)sin(x-2y)

от нее взял еще раз производную

получил -2cos(x)cos(x-2y).

Отсюда вижу что минимум функции будет достигаться при x=2y ( при условии еще что соs(x)<0)

Тогда я взял y=x/2 и вместо исходной функции f(x,y) я рассмотрел функцию g(x)=cos(x)*cos(x/2)*cos(x/2)

и получил минимальное значение g(x)=-1/8 ( в сериях точек ± 2Pi/3)

То есть в итоге я думаю, что наименьшее значение функции cos x*cos y*cos(x-y) равно -1/8 и оно достигается например в точке x=2Pi/3, y=Pi/3.